optimize_anything: A Universal API for Optimizing any Text Parameter
优化一切：通用文本参数优化 API
🧭 LLM 驱动的文本优化统一框架 ★ 深度解读
UC Berkeley · MIT
单一 LLM 优化系统横跨六个领域（代码、提示、Agent 架构、调度等）达到 SOTA，首次实现文本优化的通用范式。
📌 工作参考价值（4 点）
- 用统一的优化 API 迭代业务提示/策略/逻辑：只需提供初始候选文本、评分函数和可选诊断信息，即可让 LLM 自动优化。对于电商推荐中的排序规则、Agent 的决策逻辑、提示工程都可用同一套代码调用 optimize_anything，避免为每个任务写独立搜索逻辑。
- 引入“侧信息 (Side Information)”加速优化：在评分函数中返回编译器错误、运行日志、渲染图像等诊断反馈，比只给一个标量分数能快 4-6 倍收敛，最终效果也更好。在生成式推荐中，可以设计评估器输出点击率的同时，额外给出哪些特征未生效、哪一步解码失败等，显著提升优化效率。
- 多任务搜索：跨问题共享优化模式：如果有一批相关任务（如多个 CUDA 核、多个推荐场景的 prompt），用 multi-task 模式共享帕累托前沿，比单独优化每个任务效果更好，尤其适合团队维护多个业务线的 prompt 或 Agent 配置。
- 帕累托精英保留避免陷入局部最优：按细粒度指标（如每个测试样本的得分）建立帕累托前沿，保留不同专长的候选，避免仅凭平均分剪枝导致模式丢失。在推荐系统中，可保留点击率高但转化率低的候选与转化率高但点击率低的候选，在后续迭代中重组出更优组合。